MobileForge: Annotation-Free Adaptation for Mobile GUI Agents with Hierarchical Feedback-Guided Policy Optimization
MobileForge:移动 GUI 智能体的无标注适应与分层反馈策略优化
🧭 移动 GUI Agent · 无标注适应与策略优化
Zhejiang University · Kuaishou Technology · Tsinghua University
提出无标注适应框架 MobileForge,通过分层反馈引导的步骤级 GRPO 将开源 MLLM 提升至接近闭源移动 GUI 智能体水平
📌 工作参考价值(4 点)
- 无标注任务生成与课程挖掘:通过探索真实 App 自动生成多样化任务,并按难度课程化,可在电商搜索/推荐 Agent 的模拟环境搭建中复用,降低人工构造训练数据成本。
- 步骤级过程反馈驱动优化:HiFPO 将 rollout 结果、步骤级过程信号和纠正性提示联合用于策略更新,可借鉴到对话式推荐/导购 Agent 的强化学习训练,利用每轮对话的过程质量信号替代粗粒度成功/失败奖赏。
- GRPO 的 hint-contextualized 扩展:将纠正提示作为上下文增强 GRPO 更新,可在 LLM 驱动的推荐解释生成或查询改写任务中,使用用户反馈(如点击、修改查询)作为 contextual hint 进行在线策略改进。
- 跨领域迁移能力验证:在 AndroidWorld 适应后在 MobileWorld 仍有 41% 成功率,提示无标注适应可泛化到新 App 环境,对在多个电商平台或不同垂直领域的 Agent 迁移有一定参考价值。